Influence Score and Transformers interpretability: Measure of the Effective Impact of Attention Heads at inference time
影响力分数与Transformer可解释性：推理时测量注意力头的有效影响
🧭 Transformer 可解释性 · 注意力头归因
Thales CDI, France · Inria Paris, France · Sorbonne Université, France
提出结合logits方向影响与残差流结构贡献的influence score，用于多尺度量化注意力头对分类决策的贡献
📌 工作参考价值（4 点）
- 对部署在推荐/广告风控链路中的文本分类模型（如恶意query检测、prompt注入检测、低质内容过滤），可用influence score定位导致错误预测的关键注意力头，辅助badcase归因与模型调试。
- 其“方向影响+结构贡献”的双信号设计可迁移到Transformer排序模型：对用户行为序列、特征交叉层做注意力头级贡献分析，识别冗余或高影响头，用于推理加速或蒸馏裁剪。
- 多尺度分析框架（head/layer/network）可用作模型上线后的行为监控，检测决策模式漂移，尤其适用于数据不可控的外部安全分类器。
- 主要价值在可解释性工具，电商推荐场景的直接业务收益有限，需结合具体模型验证。